С прискорбием сообщаю, что на https://huggingface.co/ найти качественную квантизацию любой модели в формат GGUF практически невозможно.

Как говорится, хочешь сделать хорошо - сделай сам.

Итак, есть гид по командам HuggingFace, благодаря которым можно скачать нужные модели в исходниках, а затем провести квантизацию в нужный формат.

( Read more... )

ТЗ на сохранение развёртки: https://disk.yandex.ru/d/jLzcS2yHAH7eiQ

Системный промпт: https://disk.yandex.ru/d/z248IOg4o73czg

Папка с результатом выполнения: https://disk.yandex.ru/d/msxGUj_TwKDFLw

Путь к модели: https://huggingface.co/lmstudio-community/Athene-V2-Chat-GGUF

( Read more... )

Я уверен, что в 2025 году для любого студента, который желает разобраться с тематикой практического применения ИИ и умеющего как отладить программу, так и сформулировать техническое задание - шанс устроиться в приличную фирму будет гарантирован.

Студент способен сделать следующие вещи, после чего он станет весьма интересным как фирмам Заказчикам, ( Read more... )

Обзорная статья по лучшим практикам использования больших языковых моделей (LLM) для работы с кодом.

Какие большие языковые модели, что я могу рекомендовать:

1. Athene-V2-Chat-GGUF 72B- самая продвинутая БЯМ на сегодняшний день. Создана на основе Qwen2.5-72B-Instruct. Доступные варианты квантов для использования - от IQ3_XXS до Q8_0. Размер ( Read more... )

🔥 MoGe от Microsoft - модель для точного восстановления 3D-геометрии из одиночных изображений!

MoGe использует ViT-энкодер и сверточный декодер для получения геометрических карт, масок и карт глубины, которые подходят для изображений различных форматов. Инструмент полезен для 3D-визуализации и моделирования. Он поддерживает как локальное, так и ( Read more... )

Итак, ранее рассмотрены первых два шага:

1. Улучшение технического задания с помощью специального промпта: https://nikitayev.livejournal.com/148713.html
2. Генерация программ на Python с использованием больших языковых моделей (LLM): https ( Read more... )

Меня спрашивают - как именно мои навыки можно использовать на производстве?

Частично отвечу сам, но основная часть ответов будет сгенерирована ИИ.

P.S.

Чтобы тексты выглядели красиво - скопируйте статью в Notepad++ и можно выбрать подсветку синтаксиса Markdown.

( Read more... )

Обзор проблемы

Все хотят улучшить само исходное техническое задание для кодогенерации программы, но как это сделать - не понятно.

Представим задачу в следующем виде:

1. Есть некоторое приблизительное понимание что мы хотим иметь в результате и мы это можем описать сравнительно простыми предложениями.
2. Далее, необходимо создать «окантовку» для ИИ, с ( Read more... )

Подумалось, что неплохо было бы выкачать все свои статьи.

Привлёк Чат ЖПТ: https://mashagpt.link/keXoqF1x5M

Получил программку на Python:

import re

import requests

from bs4 import BeautifulSoup

def sanitize_filename(filename):

return re.sub(r'[\/:*?"<>|]', '_', filename)

( Read more... )

Самый простой рабочий промпт будет выглядеть таким образом:


( Read more... )